Cassius Marcellus Clay, Jr. dilahirkan pada 17 Januari 1942, di Louisville, Kentucky. [14] Beliau mempunyai seorang adik perempuan dan empat adik-beradik. [15][16] Beliau dinamakan oleh bapanya, Cassius Marcellus Clay Sr., yang dirinya dinamakan sebagai penghormatan kepada ahli politik Republikan abad ke-19 dan penghapusan hamba abdi yang kuat, Cassius Marcellus Clay, juga dari negeri Kentucky. Datuk nenek sebelah bapa Clay ialah John Clay dan Sallie Anne Clay; kakak Clay Eva mendakwa Sallie berasal dari Madagascar. [17] Beliau adalah keturunan hamba kepada antebellum Selatan, dan terutamanya daripada keturunan Afrika, dengan warisan Ireland dan Inggeris.[18][19][20] Ayahnya merupakan seorang pengecat papan tanda [14] dan iklan manakala ibunya, Odessa O'Grady Clay, merupakan seorang pembantu rumah. Walaupun Cassius Sr adalah seorang Methodist, beliau membenarkan Odessa untuk membesarkan kedua-dua Cassius dan adiknya Rudolph "Rudy" Clay (kemudiannya dinamakan Rahman Ali) sebagai Baptis.[21] Beliau dibesarkan dalam pengasingan kaum. Ibunya teringat satu peristiwa di mana beliau telah dinafikan untuk meminum air di kedai. "Mereka enggan memberinya satu kerana warna beliau. Ia benar-benar memberi kesan kepadanya."[22]

Penglibatan Clay di dalam sukan tinju pada mulanya dipengaruhi oleh pegawai polis Louisville dan jurulatih tinju Joe E. Martin. [23] Mereka bertembung dengan Clay yang berumur 12 tahun semasa dia sedang marah seorang pencuri yang mencuri basikalnya. Dia memberitahu pegawai polis yang dia akan mencambuk pencuri tersebut. Pegawai polis tersebut kemudiannya memberitahu dia bahawa dia dengan sebaik-baiknya perlu belajar bertinju dahulu. [24] Sejak 4 tahun terakhir kerjaya amatur Clay, dia telah dilatih oleh "cutman" tinju Chuck Bodak.[25]

Clay membuat penampilan pertama tinju amatur pada tahun 1954.[26] Beliau memenangi enam gelaran Kentucky Golden Gloves, dua gelaran sarung tangan Golden negara, gelaran atletik kebangsaan Kesatuan Amatur, dan emas pingat Light Heavyweight pada tahun Sukan Olimpik 1960 di Rom.[27] Rekod kemenangan amatur Clay adalah 100 dengan 5 kekalahan. Ali menuntut di dalam autobiografi (1975) bahawa tidak lama selepas pulang dari Sukan Olimpik Rom, dia melemparkan pingat emasnya ke dalam Sungai Ohio selepas dia dan seorang rakannya dinafikan perkhidmatan dan servis di sebuah restoran " untuk orang kulit putih sahaja", dan bergaduh dengan sebuah geng putih. Cerita ini telah pun dipertikaikan dan beberapa kawan-kawan Ali, termasuk Bundini Brown dan jurugambar Howard Bingham, telah menafikannya. Brown memberitahu penulis Sports Illustrated, Mark Kram, "Honkies (istilah panggilan hina untuk orang putih) pasti akan percaya kepada cerita itu!". Biografi Ali yang ditulis oleh Thomas Hauser menyatakan bahawa Ali telah dinafikan perkhidmatan di kedai makan tersebut tetapi dia kehilangan pingat setahun selepas memenanginya.[28] Ali menerima pingat gantian pada rehat bola keranjang semasa Sukan Olimpik 1996 di Atlanta, di mana dia menyalakan obor untuk memulakan permainan.